Position Bias Undermines Preference Consistency in Listwise LLM-Based Reranking
位置偏差破坏LLM列表重排序的偏好一致性
🧭 LLM重排序可靠性评估 ★ 深度解读
RMIT University
提出成对/全局/输出三层一致性指标，揭示LLM重排序的排列敏感性远超曝光偏差修正所能解决
📌 工作参考价值（4 点）
- 评估LLM重排序器时须同时关注排列一致性：仅看HR/nDCG不够，应加PPI（成对不稳定度）、GPI（全局不一致度）、LOC（列表输出一致性）来量化候选顺序敏感度，确保排序函数在各输入排列下输出稳定偏好。
- 常见偏差修正方法可能掩藏更严重的偏好结构破坏：STELLALW能平坦化位置曝光并提升HR@5，但PPI/GPI/LOC在实验中均最差，说明仅减小平均曝光偏差不足以恢复全局一致的偏好，业务落地不可单指标驱动。
- SGS（顺序贪心选择+重排）在一致性和曝光偏差上取得了较好平衡，但需要K次推理（K=候选集大小），适合对一致性要求极高且可接受推理延迟的场景；Bootstrapping（多次随机打乱聚合）是轻量替代，在一致性上也有明显提升。
- 工程生产建议对同一请求多次打乱候选顺序，计算排名的一致性（如Kendall’s τ）作为在线监控指标，防止因模型更新或Prompt调整引入排列不稳定性，并结合边际曝光曲线指导系统优化。